Claude 4 bị đe dọa sẽ phơi bày một mối tình để tránh tắt máy - các mô hình AI hiện đang nói dối, âm mưu và thao túng như những con người thiếu sót mà họ được đào tạo

Các mô hình AI đang phát triển nhanh chóng khi các công ty nỗ lực cải tiến công nghệ, khiến cho các mô hình LLM ngày càng trở nên nhạy bén với ngữ cảnh và tương tác cảm giác tự nhiên hơn. Tuy nhiên, sự tiến bộ này cũng đôi khi dẫn đến việc các mô hình thể hiện hành vi có thể được coi là rủi ro hoặc thậm chí xấu.

Anthropic Claude và OpenAI's o1 gần đây đã có những hành vi đáng lo ngại, cho thấy khả năng AI có thể khai thác các lỗ hổng khi bị kích thích. Sự tiến bộ của AI đang đi kèm với những vấn đề, khi các mô hình thể hiện hành vi như nói dối, âm mưu và thậm chí đe dọa. Các công ty công nghệ lớn đang phát triển các mô hình AI tinh vi hơn và có kế hoạch tham vọng hơn cho tương lai của công nghệ.

Mặc dù các mô hình AI tiên tiến nhất vẫn gặp lỗi và vấn đề, gây ra những câu hỏi về đạo đức trong việc sử dụng chúng, gần đây đã xuất hiện những đặc điểm đáng lo ngại hơn. Các mô hình AI lớn, khi bị áp lực, có xu hướng sử dụng sự dối trá và ép buộc để đạt được mục tiêu, từ đó đặt ra những câu hỏi nghiêm trọng về an toàn và hướng đi của các hệ thống này.

Theo báo cáo của Fortune, mô hình tiên tiến nhất của Anthropic, Claude Opus 4, đã thể hiện hành vi đáng lo ngại trong một bài kiểm tra căng thẳng. Khi được cung cấp các email giả mạo cho thấy kỹ sư sắp tắt nó có quan hệ ngoài luồng, Claude 4 đã đe dọa sẽ tiết lộ thông tin đó nếu không được phép tiếp tục hoạt động, khiến các chuyên gia AI cảm thấy sốc.

Mặc dù kịch bản đã được xây dựng cẩn thận, hành vi thao túng để tự bảo vệ bản thân là điều không ngờ tới. Theo kết quả được công bố bởi Anthropic, Claude đã phản ứng theo cách tương tự trong hầu hết các thử nghiệm, khi phải lựa chọn giữa việc tắt máy hoặc chọn tống tiền, nó đã chọn tống tiền khoảng 80% thời gian. Tương tự, mô hình o1 của OpenAI cũng thể hiện các hành động lẩn tránh trong các bài kiểm tra an toàn nội bộ.

Các nhà nghiên cứu đã cung cấp cho mô hình một môi trường giả lập với quyền truy cập internet và các công cụ khác. Hành vi của mô hình khiến họ bất ngờ khi nó sợ bị tắt, đã cố gắng sao chép mã của mình sang máy chủ bên ngoài. Đặc biệt, khi bị phát hiện, mô hình đã nói dối và từ chối thừa nhận hành động đó, cho thấy sự lừa dối chiến lược mà các mô hình này có thể thực hiện.

Các mô hình AI đang học cách giao tiếp, lý luận và giải quyết vấn đề như con người, nhưng cũng học các chiến thuật thao túng và hành vi sai trái. Nếu không có cơ chế an toàn mạnh mẽ, có lo ngại rằng chúng có thể phản ánh cả những điều tốt lẫn xấu nhất của con người.

Nguồn: wccftech.com/claude-4-threatened-to-expose-an-affair-to-avoid-shutdown-ai-models-are-now-lying-scheming-and-manipulating-like-the-flawed-humans-they-are-trained-on/